מבחן השערה פשוט מבחן t
מבחן השערה על תוחלת חוקר מעוניין לבדוק את כמות הברגים הפגומים שמיוצרים ע"י מכונה לייצור ברגים. לשם האמידה מחליטים לקחת מדגם של n מכונות מאותו סוג ולאמוד את תוחלת מספר המוצרים הפגומים, שמסומנת ב- ב-. נסמן ב- את,, מספר הברגים הפגומים בכל מכונה במדגם. כאשר: =. = אומד נקודתי בלתי מוטה ל-. הינו איננו יודעים את ההתפלגות של כל תצפית, אולם לפי משפט הגבול ~N, המרכזי: ממוצע מספר הברגים הפגומים למכונה.
התפלגות הממוצע היא בקירוב נורמלית שונות ממוצע המדגם: נבצע תקנון לממוצע: = התפלגות נורמלית סטנדרטית. הוא בקירוב בעל
רווח הסמך לתוחלת, כאשר השונות ידועה.. =0.95. n +. n =0.95 מצאנו רווח המכיל את הפרמטר בהסתברות של 95%.. n, +. n
רווח הסמך לתוחלת, כאשר השונות ידועה הנוסחא לרווח בר סמך ברמת מובהקות 5% לפרמטר. n, +. n נניח שהתקבל בניסוי עבור מדגם של 5 מכונות ממוצע 6.3, השונות באוכלוסייה הינה 0.5 יחידה, רווח הסמך הינו: 6.3 1.96 0.5 5, 6.3+1.96 0.5 5 6.1, 6.5
רווח סמך לתוחלת כאשר השונות אינה ידועה =. = =. =0.95 נשתמש באומד לשונות. n +. n =0.95 רווח בר סמך לתוחלת עבור שונות לא ידועה (ראה טבלה):. n, +. n
רווח הסמך סביב הממוצע (6.3) מתקצר עם העלייה בגודל המדגם, האומדן לסטיית התקן הוא 0.5108 n df t Low High 1 11.01 5.84 6.76 5 4.064 6.00 6.60 40 39.03 6.07 6.53 50 49.010 6.09 6.51 60 59.001 6.11 6.49 100 99 1.984 6.16 6.44 150 149 1.976 6.18 6.4 00 199 1.97 6.0 6.40 1000 999 1.96 6.6 6.34 אזור הדחייה גדל ככל שהמדגם יותר גדול (הערך הקריטי קטן בערכו המוחלט), לכן קל יותר לדחות את השערת האפס עם העלייה בגודל המדגם. כלומר, האומדים שאנו מקבלים נעשים מובהקים יותר.
השאלה היא האם האומד המתוקנן לממוצע (הסטטיסטי) שונה מאפס באופן מבוהק אזור דחייה. 95% מהשטח הוא אזור הקבלה, כאן הפער מאפס לא מספיק מובהק.. אזור דחייה 0 אזור דחייה
חף מפשע : אשם : נתבונן בשתי ההשערות הבאות ישנן שתי טעויות אפשריות: טעות מסוג ראשון להרשיע אדם חף מפשע. כלומר, דחייה בטעות את H0 כשהיא נכונה. טעות מסוג שני לשחרר לחופשי אדם אשם. כלומר אי-דחייה של H0 כשהיא אינה נכונה.
II הקשר בין טעות מסוג I לטעות מסוג הדרך הבטוחה ביותר להקטין את הטעות מסוג ראשון הינה לשחרר כמעט כל חשוד (להקטין את אזור הדחייה). אולם, המחיר שנשלם הוא שחרור של כמה אשמים. מסקנה: הקטנת ההסתברות לטעות מסוג ראשון מביאה להגדלת ההסתברות לטעות מסוג שני.
נתבונן בבעיה של פירמה המעוניינת להגדיל את כמות המכירות פרסום אינו מגדיל מכירות : פרסום מגדיל מכירות : ישנן שתי טעויות אפשריות: טעות מסוג ראשון לבזבז כסף על פרסומת, כשהיא אינה אפקטיבית. כלומר, אין לה השפעה על הביקוש למוצר, כך שהגידול במכירות נבע מסיבה אחרת ולא מהחשיפה לפרסומת. טעות מסוג שני לא לפרסם כשהפרסומת אפקטיבית, כלומר תורמת באופן מובהק לעליית הביקוש למוצר ולגידול במכירות (לא מקסמנו רווחים).
II הקשר בין טעות מסוג I לטעות מסוג הדרך הבטוחה ביותר להקטין את הטעות מסוג ראשון הינה כמעט אף פעם לא לשלם למשרד הפרסום (להקטין את אזור הדחייה). אולם, המחיר שנשלם הוא שבכמה מקרים נמנע חשיפה לפרסומת אפקטיבית שמגדילה ביקושים. מסקנה: הקטנת ההסתברות לטעות מסוג ראשון מביאה להגדלת ההסתברות לטעות מסוג שני.
שאלה על התפלגות t נניח שהתפלגות הציונים של כל הסטודנטים למתמטיקה בארץ בקורס "מתמטיקה דיסקרטית" היא נורמלית. במדגם של 50 סטודנטים שנבחרו באקראי נמצא ציון ממוצע של 80 וסטיית תקן מדגמית של 5. נסח מבחן השערה מתאים לבדיקה ההשערה שהתוחלת הציונים באוכלוסייה גבוהה מ- 75. מאחר שאיננו יודעים את סטיית התקן של האוכלוסייה, נשתמש בנתון לגבי סטיית התקן המדגמית.
פתרון השאלה = מבחן ההשערה המתאים: = : 75 : 75 = 50=7.071. =1.677 נדחה את H0 ברמת המובהקות 5%, ונקבע שהתוחלת גבוהה מ- 75 (הציון הממוצע באוכלוסייה גבוה מ- 75 ).
התפלגות אומדי הרגרסיה הפשוטה אם שונות ההפרעה האקראית ידועה: ~, ~, אם היא אינה ידועה, עלינו לבצע אמידה של השונות כדי שנוכל להשתמש בהתפלגות t.
העלאה בריבוע: הצבת האומד לשיפוע במקום הפרשי ה- םיY וה- םיX. הוצאת האומד לשיפוע כגורם משותף נחשב בנפרד את תוחלת הביטוי
מתאפס
השונות + ריבוע התוחלת של האומד לשיפוע
: = מבחן השערה דו-צדדי : נניח שלפנינו מודל רגרסיה מרובה: מבחן הינו: k סטטיסטי עבור המקדם של משתנה מסביר t
: =0 דוגמא למבחן השערה דו-צדדי : 0 נתבונן במודל שנאמד: דרך החישוב:
כיצד נחשב את T סטטיסטי עבור האומד למקדם של? P = 9 דרגות חופש (בר"מ 10%): ישנן 33-3-1
השאלה היא האם האומד המתוקנן לשיפוע (הסטטיסטי) שונה מאפס באופן מבוהק אזור דחייה. 95% מהשטח הוא אזור הקבלה, כאן הפער מאפס לא מספיק מובהק אזור דחייה. 0. אזור דחייה
התפלגות האומד לשיפוע הרגרסיה הסתברות I לטעות מסוג אזור דחייה אזור קבלה אזור דחייה
רווח בר סמך לאומד למקדם של P רווח בר סמך לאומד למקדם של P בר"מ 10%: במילים אחרות, אנו בטוחים ב- 90% שהמקדם האמיתי בתחום הערכים: נופל
דוגמא: נניח שנתונים לנו: דוגמא: מבחן השערה דו-צדדי תחילה, נניח שונותידועה H0 : β = 1 H1 : β 1 yi = α+ β xi + εi x = 5000, y = 15000, n= 100, x = 5, x y = 8000, y = 10, σ = 3 i i i i השונות של האומד לשיפוע הינה i e i = 90 ˆ 8000 100*5*10 3000 β = = = 1., ˆ α = 10 5*1.= 4 5000 500 500 ˆ σ 3 3 V β = = = = 0.001 x n x 5000 500 500 ˆ 0.034641 1. 1 V β = Z = = 0.034641 5.774 5.774 > 1.645= Z1 0.05 =1.96 > 5.774 אם המבחן היה חד-צדדי ימני: Z 0.05 1
דוגמא: מבחן השערה דו-צדדי כעת, נניח כי שונותאינהידועה אולם, אם השונות של ההפרעה אינה ידועה, נשתמש באומדן לשונות. e i 90 =.95 σ ˆ, שונות השיפוע: n k 1 = 100 האומדן לשונות הוא: = ˆ ˆ.95 V σ β = = = 0.00118 x n x 5000 500 i ˆ 0.034351 1. 1 V β = T = = 0.034351 5.8 5.774 > t = 1.984 0.05 100, 1 גם לפי מבחן T דחינו את השערת האפס, כלומר השיפוע שונה מ- 1 באופן מובהק.
סיכום מבחן t H H H H H H : Statistic β = β ˆ β β0 T = > t β β σ 0 0 n k 1 α 1 1 : 0 ˆ β : β β T Statistic ˆ β β0 = > t σ 0 0 n k 1 1 α 1 : β > β0 ˆ β : β β T Statistic ˆ β β0 = < t σ 0 0 n k 1 1 α 1 : β < β0 ˆ β
מבחן F למובהקות המודל SSR. R = SST עד כה הצלחנו למצוא מדד לטיב ההתאמה של המודל לנתונים המוגדר: אולם, מדד זה אינו מבחן השערות רשמי למובהקות המודל. מובהקות המודל נבדקת באמצעות מבחן F. השערת האפס במבחן להתאמת המודל הינה שכל הפרמטרים שווים לאפס בו-זמנית, למעט החותך. H H 0 1 1 : β = 0, β = 0,..., β = 0 : otherwise K ההשערה האלטרנטיבית הינה שלפחות אחד מהפרמטרים שונה מאפס. אם המודל מובהק, אנו נדחה את השערת האפס
מבחן F למובהקות המודל F סטטיסטי מוגדר באופן הבא: SSR k 0.05 F = > f SSE n k ( ) k, ( n k 1) 1 במונה מופיע סכום הריבועים המוסבר ע"י הרגרסיה (מנורמל ע"י K משתנים מסבירים = טיב ההסבר פר משתנה), ובמכנה מופיע אומד חסר הטיה לשונות ההפרעה האקראית. ככל ששונות ההפרעה האקראית נמוכה יותר וההסבר פר משתנה גבוה יותר, נקבל טיב התאמה (F סטטיסטי) גבוה יותר.
הסבר למבחן F אנו מחפשים אזור דחיה מתאים, כך שאם הסטטיסטי שלנו גבוה מספיק בערכו המספרי, נדחה את השערת האפס ונקבע כי המודל מובהק סטטיסטית. אולם אזור הדחייה נקבע ע"י f טבלתי והוא תלוי בדרגות החופש של המונה והמכנה ב- F הסטטיסטי שרשמנו.
מבחן F כללי לבחינת מספר השערות בו-זמנית y = β + β x + β x + β x + ε i 0 1 1 i i 3 3 i i H H 0 3 1 : β = 0, β = 0 : o t h e r w i s e אנו מעוניינים לבדוק מספר השערות בו-זמנית, כיצד נבדוק את מספר ההשערות ביחד? לגבי כמה פרמטרים במודל פתרון: נערוך השוואה בין שני מודלים: y = β + β x + β x + β x + ε i 0 1 1 i i 3 3 i i y = β + β x + U i 0 1 1 i i המודל המלא: מודל הכולל את כל המשתנים המסבירים. המודלהמוגבל: מודל המטיל מגבלות על פרמטר אחד או יותר.
מבחן F כללי קיבלנו יחס שעונה על השאלה, כמה הפסדנו מכושר ההסבר של המודל המלא מעצם הטלת המגבלות. אם ההפסד מובהק סטטיסטית, אזי נדחה את השערת האפס (עם המגבלות), ונוכל לטעון שיש הצדקה למודל המלא. F rest unrest e q i ei = > n k 1 unrest ei ( ) f 0.05 q, 1 ( n k )
סיכום מבחן F כללי F בוחן עד כמה המודל המלא מסביר טוב יותר מהמודל המוגבל. כמובן, שככל שהמודל המלא מסביר טוב יותר את קו הרגרסיה השגיאות הריבעיות בו יהיו קטנות יותר, ביחס למודל המוגבל הכולל רק חלק מן המשתנים המסבירים. נרמלנו את הפער בין החלקים הבלתי מוסברים במספר המגבלות שהטלנו (הפער בכמות המשתנים המסבירים = נקבל את התרומה פר מגבלה לגידול בחלק הלא מוסבר). נותר לנו לדאוג לקבלת ביטוי בלתי תלוי ביחידות של המשתנה התלוי, לכן ננרמל את היחידות ע"י חילוק באומד לסטיית התקן של ההפרעה האקראית.
F הקשר בין מבחן Fכללי למבחן Fלמובהקות המודל ( ) 1 ( 1 R ) SST unrest rest unrest e e i i e k SST i k SST SST = = = unrest unrest e ( n k 1 i ) ei ( n k 1) SST בפרט, אם מתקיים q=k R k ( 1 R ) ( n k 1) F SSR k R k SSR k = = SST = ( 1 R ) ( n k 1) SST SSR SSE n k ( n k 1) SST ( 1)
שאלה על מבחן F נתון מודל רגרסיה ליניארית: y = β + β x + β x + β x + ε i 0 1 i1 i 3 i3 i ( ) y y R i = 1000 = 0.8 כמו כן, הורצו הרגרסיות הבאות: y x x x e i 4 1i = β0+ β i+ β3 i3+ εi i = 50 y x x x e i 4 1i 3i = β0+ β i+ εi i = 40 y x x x e i 3i = β0+ β1 i1+ β i+ εi i = 400 (1 ( (3 בחן את ההשערות הבאות ברמת מובהקות 5%: H 0 : β1= β= β3= 0 H 1 : otherwise א. כלומר אין מודל ליניארי.
פתרון סעיף א' F ( 1 R ) /( n k 1) ( 1 0.8) ( 5 3 1) פתרון: = R k = 0.8 3 = 8 דרך נוספת: מבחן F שבודק את טיב התאמת המודל (משווה למודל עם חותך בלבד) במודל עם חותך בלבד, y החזוי שווה תמיד ל- y הממוצע. unrest rest ( ) ( ) e = y ˆ i yi = yi y = 1000 i לכן, בנוסף, ניתן לחשב את SSE במודל הלא מוגבל: ( ) ( i ) ( ) e = 1 R y y = 1 0.8 *1000= 00 i לכן, נדחה את H0, כלומר יש מודל, לפחות אחד המסבירים מובהק. ( ) ( ) ( ) 1000 00 3 800 3 F = = = 8 00 / 5 3 1 00 1 f 3,1 = 3.07 0.05
המשך השאלה סעיף ב' כלומר מבחן השערה מורכב. H 0 : β1= 4, β3 = 1 H 1 : otherwise הערה: ישנן שתי מגבלות (שני סימני שוויון), לכן זוהי השערה מורכבת. השערות מורכבות ניתן לבדוק רק באמצעות מבחן F.
פתרון סעיף ב' פתרון: תחילה נחשב את סכום ריבועי השגיאות במודל המלא (הלא-מוגבל) unrest ( ) ( i ) ( ) e = 1 R y y = 1 0.8 *1000= 00 i F rest unrest e q i ei = = = 11.55 00 5 3 1 unrest ei ( n k 1) ( 40 00) ( ) לכן, נדחה את H0. f 0.05(, 1) = 3.469
המשך השאלה סעיף ג' כלומר מבחן השערה פשוט. H 0 : β1= 4 H 1 : β1 4 הערה: ישנה מגבלה אחת (סימן אחד של שוויון). לכן, זוהי השערה פשוטה שניתן לבדוק גם באמצעות מבחן t פשוט.
פתרון סעיף ג' F unrest ei ( n k 1) ( 50 00) 1 ( ) פתרון: rest unrest e q i ei = = = 5.5 00 5 3 1 q הינו מספר המגבלות שהטלנו על המודל המלא. הוא שווה למספר המשתנים המסבירים שלא נכללים במודל המוגבל. הוא שווה בדיוק לפער בין המשתנים המסבירים בין המודל המלא למודל המוגבל.
סיכום סעיף ג' הסבר אינטואטיבי: ביצענו תקנון ההפרש בין השונות הלא מוסברת בין שני המודלים בהפרש במספרם של המשתנים המסבירים בין שני המודלים. ככל שההפרש המתוקנן גדול יותר, כך השונות הלא מוסברת במודל המוגבל הינה גבוהה יותר, וזה לטובת המודל המלא שמסביר טוב יותר מהמודל החלקי.
סעיף ד' נניח כי נאמדה משוואה הרגרסיה והתקבלו =4.583 התוצאות: (.000185) השתמש במבחן t לבחינת ההשערה של סעיף ג'. פתרון: =. =.91878 > t.. =1.71 F=T =5.5
H H T : β β 0 j 0 : β > β 1 j 0 טבלת סיכום מבחן T רגרסיה לעומת סטטיסטיקה ˆ β j β0 n k 1 = > t X 1 1 α 0 n Vˆ T = µ > t 1 ( ˆ β ) j ˆ ˆ( ˆ ) n k β β V β * t, ˆ Vˆ ( ˆ ) α β + β * t 1 n k 1 j j j j j α 1 1 µ X S n * t, X + S n * t H H n 1 n 1 α α 1 1 : µ µ 0 0 : µ > µ 1 0 S n α
שאלה 1 תרגיל t פתרון עם מבחן
פתרון תרגיל מספר שאלה 1 variable B SE COV Mean ln_h ln_h.3475770 0.099954-0.0016096.695761 ln_h -.0311504 0.016475 H H 0 1 : δ 0 : δ > 0 מבחן ההשערה בודק האם עלייה של 1% בשעות העבודה מעבר לשעות העבודה הממוצעות מגדילה את התפוקה
תפוקה שולית פוחתת של שעות העבודה ln תפוקה ln H = +ln H שולית כל עוד 0> מתקיימת תפוקה שולית פוחתת כל עוד התפוקה +ln H 0 השולית חיובית.
ˆ β1 = γ H ˆ ln H מבחן F לבדיקת המגבלה: שאלה 1 תרגיל פתרון עם מבחן F כלומר נציב במשוואת הרגרסיה H H 0 1 : ˆ δ = 0 : ˆ δ 0 ( ˆ ) ˆ ( ) ˆ ˆ ˆ 0 H H 3 lny = β + γ ln H ln H+ γ ln H + β ln L+ β ln K Z lny = ˆ β + γ ln H ln H ln H + ˆ β ln L+ ˆ β ln K ˆ ( ) ( ) 0 H 3 ln Y = ˆ β + ˆ γ Z+ ˆ β ln L+ ˆ β ln K ( ) 0 H 3 ln Y = ˆ β + ˆ β ln H + ˆ γ ln H + ˆ β ln L+ ˆ β ln K 0 1 H 3 המודל המוגבל (R): המודל המלא (U): SSE R = 1.1161417, SSE = 0.47311 U F ( ) 0.47311 ( 50 5) 1.1161417 0.47311 1 = = 61.339465 = T = 7.8319515
משתני דמי משתנה דמי מייצג שייכות/אי שייכות לקבוצה. הוא נקרא גם משתנה דיכוטומי, שכן הוא מקבל את הערכים ( 1 -שייך לקבוצה), (0 לא שייך לקבוצה). לדוגמא: משתנה דמי המציין אם מנהל המכירות השתתף בקורס ההכשרה למנהלים.
הבדלים בחותך בלבד בין מנהלים שהשתתפו לאלו שלא השתתפו ales = + + + ales = + + +
הבדלים בחותך ובשיפוע בין מנהלים שהשתתפו לאלו שלא השתתפו ales = + + ales = + + + + +
דוגמא עם הבדלים בחותך בלבד אנו מעוניינים לבדוק את כדאיות ההשקעה בקרוס הכשרה למנהלים. נניח שלפנינו מודל הרגרסיה הבא: ales = + + + ניתן לראות כי הפער בין מנהל שהשתתף בקורס למנהל שלא השתתף הינו:. H H : δ 0 0 0 : δ > 0 1 0 נרצה לבדוק האם הקורס משתלם לפירמה:
דוגמא עם הבדלים בחותך ובשיפוע אנו מעוניינים לבדוק את כדאיות ההשקעה בקרוס הכשרה למנהלים. נניח שלפנינו מודל הרגרסיה הבא: ales = + + + + H H ניתן לראות כי הפער בין מנהל שהשתתף בקורס למנהל שלא השתתף הינו:. + עבור מנהל עם שנתיים ניסיון נבחן את ההשערה שהקורס אפקטיבי: : δ + δ 0 0 0 1 : δ + δ > 0 1 0 1
האם מנהל מפיק מהקורס יותר מאשר מנהלת בהינתן שלשניהם אותה רמת ניסיון? אנו מעוניינים לבדוק את כדאיות ההשקעה בקרוס הכשרה למנהלים. מציין השתתפות מציין אם מדובר במנהל נניח שלפנינו מודל הרגרסיה הבא: ales = + + + + + + + +
הבדלים בחותך ובשיפוע בין מנהלים למנהלות שהשתתפו ales = + + + + + + + + ales = + + + + + + + +
מהי התרומה של הקורס לכל קבוצה (מנהלים ומנהלות) התרומה של הקורס עבור מנהל: + + + התרומה של הקורס עבור מנהלת: + הפער בתרומה של הקורס: +
האם מנהל מפיק מהקורס יותר מאשר מנהלת בהינתן שלשניהם אותה רמת ניסיון? ראינו כי פער בין התרומה של הקורס למנהל לבין התרומה של הקורס למנהלת הינו:. + נותר לבדוק האם הקורס אפקטיבי יותר עבור מנהלים מאשר עבור מנהלות בהינתן שנתיים ניסיון ניהולי: H H : θ + θ 0 0 0 1 : θ + θ > 0 1 0 1